Đương lúc chờ đại hội mở màn thì Madison soạn kế hoạch bước đầu của ông, được gọi là Kế hoạch Virginia. Các đại biểu Virginia và Pennsylvania tán thành kế hoạch của Madison và hợp thành nhóm chủ đạo trong đại hội.[28] Kế hoạch phỏng theo hiến pháp các bang, bao gồm 15 nghị quyết nêu ra các nguyên tắc cơ bản, và thiết lập một chính phủ toàn quốc. Tuy nhiên, các ngành chính phủ không thể khống chế lẫn nhau.[29] Kế hoạch của Madison khác hoàn toàn Các điều khoản Hợp bang.[30] Ngày 29 tháng 5, thống đốc Virginia Edmund Randolph đưa Kế hoạch Virginia ra Đại hội.[31]

Cùng ngày, Charles Pinckney của Nam Carolina đưa ra kế hoạch riêng, cũng tăng cường đáng kể chính quyền quốc gia. Phe ủng hộ Kế hoạch Virginia đảm bảo các điểm của Madison sẽ được ưu tiên so với kế hoạch của Pinckney.[32] Tuy nhiên, Đại hội có dùng nhiều ý tưởng của Pinckney. Ông đề nghị thành lập quốc hội bao gồm hai viện. Hạ nghị viện do người dân bầu, Thượng nghị viện do Hạ nghị viện bầu ra thay mặt một trong bốn khu vực, có nhiệm kỳ 4 năm. Quốc hội có quyền phủ quyết luật của các bang. Tổng thống cầm đầu ngành hành pháp, do quốc hội bầu ra. Tổng thống và nội các có quyền phủ quyết luật quốc gia. Kế hoạch Pinckney cũng thiết lập một ngành tư pháp quốc gia.[33]

Ngày 30 tháng 5, Đại hội đồng ý theo thỉnh cầu của Gouverneur Morris “phải thiết lập một chính phủ toàn quốc bao gồm ngành lập pháp, hành pháp và tư pháp cao nhất”,[34] báo hiệu cuộc họp sẽ dựng lên chính phủ mới thay vì chỉ sửa lại Các điều khoản Hợp bang.[35] Đại hội bắt đầu tranh luận về các điểm cụ thể của Kế hoạch Virginia.

Quốc hội

Kế hoạch Virginia thiết lập một Quốc hội hai viện thay thế Quốc hội Hợp bang một viện, có quyền làm luật “trong mọi việc mà mỗi bang một mình không lo liệu được”[36] và quyền phủ quyết luật của các bang. Số nghị sĩ của các bang trong cả hai viện sẽ chia theo hoặc tiền thuế mỗi bang nộp, hoặc số dân không tính nô lệ của mỗi bang. Toà nghị dưới do người dân bầu thẳng ra, toà nghị trên do toà dưới bầu ra, bao gồm các ứng viên do nghị hội bang đề cử.[37]

Vấn đề chia nghị sĩ: tương ứng hay bằng nhau?

Các đại biểu trước hết xem xét đề xuất chia nghị sĩ một cách tương ứng.[38] Virginia, Pennsylvania, và Massachusetts là ba bang đông dân nhất không hài lòng với quy định một bang một phiếu trong Quốc hội Hợp bang, vì có thể thua phiếu các bang nhỏ, mặc dù thay mặt hơn một nửa số dân của đất nước.[39] Các đại biểu không đồng ý về cách chia nghị sĩ tốt nhất. Các bang miền Nam có tài sản nô lệ, tán thành chia theo thuế, nhưng Rufus King của Massachusetts trỏ ra mặt không khả thi của kế hoạch: nếu chính phủ quốc gia không đánh thuế trực thu thì không thể chia nghị sĩ. Trên thực tế, chính phủ liên bang hiếm khi đánh thuế trực thu vào thế kỉ 19. Tính tiền thuế cũng khó vì thiếu dữ liệu đáng tin cậy. Chia theo “số dân tự do”, các đại biểu miền Nam không bằng lòng, biết rằng 40% số dân các bang miền Nam là nô lệ.[40] Ngoài ra, các bang nhỏ phản đối bất cứ thay đổi nào làm giảm sức ảnh hưởng của chính họ; Delaware doạ bỏ về nếu Đại hội quyết định chia tương ứng thay vì bằng nhau. Các đại biểu hoãn lại cuộc tranh luận.[41]

Ngày 9 tháng 6, William Paterson của New Jersey nhắc nhở các đại biểu rằng họ đến Philadelphia để sửa lại Các điều khoản Hợp bang, không thành lập chính phủ quốc gia. Ông chấp nhận Quốc hội Hợp bang cần phải có quyền lực mới, kể cả quyền cưỡng chế các bang, nhưng vẫn kiên quyết rằng nếu là hợp bang thì các bang phải có sức ảnh hưởng ngang nhau.[42] James Madison ghi lại lời của ông:[43]

[Các điều khoản Hợp bang] là nền móng của mọi công việc ở Đại hội. Chúng ta không được vượt qua nó, nếu không thì chúng ta đáng bị cử tri buộc tội tiếm quyền. . . thư uỷ quyền của chúng ta không chỉ đo quyền lực, mà còn tỏ ra quan điểm của bang về các vấn đề chúng ta cân nhắc. Ý tưởng thiết lập [Chính phủ] toàn quốc thay vì liên bang, không có ai trong số họ nghĩ tới. Chúng ta phải thuận theo công luận. Chúng ta không có quyền vượt ra ngoài khuôn khổ liên bang, và nếu có thì đây là ý của người dân. Chúng ta phải theo dân; dân sẽ không theo chúng ta.

Chế độ hai viện và cách bầu

Ngày 31 tháng 5, các đại biểu thảo luận cách tổ chức Quốc hội và cách chọn các nghị sĩ. Gần như ai ai đều biết và ủng hộ phân chia quốc hội thành thượng viện và hạ viện. Quốc hội Anh bao gồm Viện Thứ dân dân cử và Viện Quý tộc cha truyền con nối. Trừ Pennsylvania ra, tất cả các bang đều có nghị hội hai viện.[45] Các đại biểu nhanh chóng đồng ý rằng mỗi viện phải có quyền đưa ra các dự luật. Họ cũng đồng ý, Quốc hội mới sẽ có tất cả các quyền làm luật của Quốc hội Hợp bang và quyền phủ quyết luật của các bang.[46]

Một số đại biểu phản đối để cho người dân bầu Hạ nghị viện. Elbridge Gerry của Massachusetts và Roger Sherman của Connecticut sợ người dân sẽ tin theo những kẻ nịnh hót, dẫn tới bạo lực và hỗn loạn. Pierce Butler của Nam Carolina chủ trương chỉ trao chính quyền những người đàn ông giàu có. Tuy nhiên, số đông trong Đại hội ủng hộ bầu cử phổ thông.[47] George Mason ở Virginia nói rằng hạ nghị viện “là kho dân chủ lớn của chính quyền.”[48]

Đại hội đồng ý rằng Thượng nghị viện nên có ít thành viên và khó vào hơn hạ viện. Thượng nghị sĩ phải là người quân tử của tầng lớp thông minh và lương thiện nhất trong xã hội.[49] Đã hoạt động trên chính trường bang, các đại biểu tin rằng cần phải có thượng viện như vậy để kìm giữ tính hay chiều dân của hạ viện dân cử.[45] Tuy nhiên, các đại biểu tranh cãi về cách lựa chọn thượng nghị sĩ. Đại biểu muốn giữ gìn quyền lực bang thì đề nghị nghị hội của bang chọn thượng nghị sĩ, James Wilson của Pennsylvania thì đề nghị người dân bầu thẳng ra.[50] Mãi đến ngày 7 tháng 6, Đại hội mới đồng lòng quyết định rằng thượng nghị sĩ do các nghị hội bang chọn.[51]

Tỉ lệ ba phần năm

Về vấn đề chia nghị sĩ, ba bang lớn vẫn không thuyết phục được tám bang nhỏ. James Wilson nhận ra rằng các bang lớn cần sự ủng hộ của ba bang miền Nam Georgia và Nam, Bắc Carolina để có được đại diện tương ứng. Đại biểu của ba bang này trước hết muốn bảo vệ chế độ nô lệ trong bang.[52] Ngày 11 tháng 6, Wilson đưa ra Thoả hiệp ba phần năm cùng John Rutledge của Nam Carolina. Nghị quyết chia số ghế trong Hạ viện theo số dân tự do cộng ba phần năm số dân nô lệ của bang. Chín bang bỏ phiếu ủng hộ, chỉ có New Jersey và Delaware bỏ phiếu chống.[53] Miền Nam sẽ được thêm ít nhất một chục nghị sĩ và phiếu đoàn đại cử tri.[54] Cùng ngày, sáu bang này cũng thông qua quy tắc ba phần năm đối với cách chia ghế Thượng nghị viện; tuy nhiên, quyết định đó sau này bị bãi bỏ.[55]

Hành chính

Xưa nay, luật Anh chia ra chính quyền làm hai quyền làm luật của quốc hội và quyền hành chính của nhà vua, triều đình, không có đại biểu nào phản đối tách ngành hành chính ra khỏi quốc hội.[56] Mặc dù vậy, hình thức tổ chức, quyền hạn, và cách lựa chọn gây tranh chấp không ngớt vào mùa hè năm 1787.[57] Lúc đó, rất ít nước có ngành hành chính không vua chúa để lấy làm gương. Đúng thật Hà Lan do thống đốc lãnh đạo, nhưng chức vị thường truyền lại cho thành viên của Nhà Orange. Thụy Sĩ thì có quá nhiều người, chế độ vua chúa tuyển cử của Đế quốc La Mã Thần thánh và Liên bang Ba Lan - Litva thì thối nát.[58]

Sau khi sống dưới quyền Vua George III thì Hoa Kì không tin dùng một trưởng hành chính mạnh mẽ. Chính phủ Hợp bang thời đó chỉ có Uỷ ban các bang để sắp đặt việc nước đương lúc Quốc hội ngừng họp. Tuy nhiên, Uỷ ban hiếm khi làm việc. Ở các bang, thống đốc phải làm theo nghị hội và không có quyền phủ quyết luật, cho nên không thể ngăn chặn luật pháp nguy hại quyền lợi của số ít.[59] Các bang có nhiều cách chọn thống đốc. Nhiều bang trao quyền lựa chọn cho nghị hội, một vài cho phép người dân bầu thẳng. Ở Pennsylvania, người dân bầu ra hội đồng hành chính và nghị hội chỉ định một trong những thành viên của hội đồng làm thống đốc.[58]

Kế hoạch Virginia thiết lập ngành hành chính do Quốc hội chọn, có quyền thi hành luật quốc gia, tuyên chiến, và kí kết điều ước.[60] Không xác định quyền hành chính trao cho một người hay nhiều người.[61] Ngành hành chính cùng số lượng thẩm phán liên bang “phù hợp” sẽ hợp thành Hội đồng Tu pháp có quyền phủ quyết bất cứ luật nào của Quốc hội. Quốc hội có thể chung quyết thông qua dự luật, nhưng kế hoạch cũng không xác định số phiếu cần thiết.[60]

Một tổng thống, một hành chính

James Wilson lo ngành hành chính dưới Kế hoạch Virginia quá phụ thuộc vào Quốc hội. Ông đề xướng trao quyền hành chính cho chỉ một người. Wilson nhận xét, ngành hành chính bao gồm nhiều người sẽ bị các nhóm mưu lợi khu vực chi phối, phân tâm, cho nên chỉ một trưởng hành chính có thể vừa thay mặt cả nước, vừa khiến cho chính phủ “làm việc hăng hái, nhanh chóng, và có trách nhiệm”.[62]

Ông thấy không có quá nhiều xung đột giai cấp trong xã hội Hoa Kì, các hạng người khác nhau kết giao bạn bè, tin rằng tổng thống có thể là biểu tượng đoàn kết toàn dân. Tổng thống phải gần nhân dân, gánh vác trách nhiệm làm lợi chung cho đất nước, hành quyền một cách minh bạch và sẵn lòng giải trình trước người dân, trái ngược với nhiều nghị sĩ không ai biết đến. Wilson không tính đến khả năng chính trị đảng phái gay gắt nảy ra.[63][64][65]

Ngày 1 tháng 6, Wilson đề nghị “ngành hành chính bao gồm một người.” Pinckney tán thành đề nghị, cũng chủ trương thiết lập một ngành hành chính đơn nhất, và đặc biệt đặt tên chức vị là “tổng thống”.[62] Roger Sherman phản đối, thiên về chế độ đại nghị, ngành hành chính do quốc hội bổ nhiệm và chịu trách nhiệm trước quốc hội. Edmund Randolph đồng ý với Wilson, nhưng sợ trao quyền hành chính cho chỉ một người sẽ tạo ra “bào thai của chế độ vua chúa”.[66] Randolph và George Mason cầm đầu phe chống lại chủ trương ngành hành chính đơn nhất, song hầu hết các đại biểu đồng ý với Wilson, có lẽ vì tổng thống đầu tiên sẽ là George Washington. Ngày 4 tháng 6, Đại hội thông qua đề nghị của Wilson.[67] Ban đầu, đặt nhiệm kỳ là bảy năm, nhưng xem xét lại sau này.[68]

Cách bầu, phế truất, và quyền phủ quyết

Wilson cũng chủ trương ngành hành chính do người dân bầu thẳng ra để cho không phải chịu Quốc hội và các bang chi phối.[69] Phần lớn Đại hội không tán thành đề nghị này. Lý do của một số đại biểu như Roger Sherman, Elbridge Gerry, và Pierce Butler là người dân dễ bị mị, không phải vì họ ngu, mà là vì tin loan khá chậm vào cuối thế kỷ 18: cử tri thiếu thông tin, không biết gì về các ứng viên, không thể sáng suốt bỏ phiếu.[70]

Số đông đại biểu ủng hộ đề nghị tổng thống do Quốc hội bầu, có nhiệm kỳ 7 năm; một số đại biểu lo quốc hội sẽ nắm quá nhiều quyền lực. Các đại biểu miền Nam ủng hộ trao quyền chọn cho các nghị hội bang. Những người như Madison phản đối, sợ một tổng thống như vậy sẽ chỉ làm môi giới giữa các bang, thay vì là biểu tượng đoàn kết quốc dân. Wilson nhận thấy rằng Đại hội sẽ không chấp nhận bầu cử trực tiếp, đưa ra đoàn đại cử tri làm vật thay thế: các bang chia thành các khu bầu cử bao gồm các đại cử tri, cử tri chọn đại cử tri, đại cử tri bầu tổng thống, vừa giữ gìn được sự phân lập ba quyền, vừa bỏ qua các nghị hội bang. Tuy nhiên, không được nhiều đại biểu ủng hộ ban đầu.[71]

Hồi đó, không có các đảng chính trị, nhiều đại biểu lo ứng viên sẽ thường xuyên không hội đủ số phiếu đại cử tri để đắc cử. Hầu hết đều đề nghị Hạ nghị viện bầu tổng thống vì là cơ quan gần sát người dân nhất. Các bang ít dân phản đối, các bang đông dân sẽ chắc chắn thắng thế. Đại hội điều hoà tranh chấp, trao cho Hạ nghị viện quyền bầu tổng thống nếu không có ứng viên nào hội đủ số đông đoàn đại cử tri, nhưng các đại biểu mỗi bang sẽ hợp thành khối mà bỏ phiếu, tức là mỗi bang dù cho ít dân hay đông dân cũng chỉ có một phiếu.[68]

Kế hoạch Virginia không đưa ra cách phế truất trưởng hành chính. Ngày 2 tháng 6, John Dickinson của Delaware đề nghị tổng thống bị Quốc hội cách chức theo yêu cầu của số đông các nghị hội bang. Madison và Wilson không chịu để cho các bang nhúng tay vào ngành hành chính. Sherman chủ trương Quốc hội có quyền cách chức tổng thống vì bất cứ lý do nào. George Mason phản đối, cho rằng tổng thống sẽ bị chi phối và trở thành “đồ dùng của quốc hội”. Đại hội bác bỏ đề nghị của Dickinson, nhưng vẫn không quyết định được cách phế truất tổng thống.[72]

Ngày 4 tháng 6, các đại biểu tranh luận về Hội đồng Tu pháp. Wilson và Alexander Hamilton của New York phản đối pha trộn ngành hành chính và tư pháp. Họ muốn tổng thống có quyền phủ quyết tuyệt đối để không phải lệ thuộc ngành làm luật. Benjamin Franklin của Pennsylvania phản đối, đưa ra các trường hợp thống đốc thuộc địa doạ phủ quyết để “moi tiền” của cơ quan làm luật. Gerry đề nghị số đông hai phần ba trong cả hai viện của Quốc hội có thể chung quyết thông qua dự luật bị Hội đồng Tu pháp phủ quyết. Về sau, bỏ hội đồng, trao quyền phủ quyết cho một mình tổng thống. Tuy nhiên, Madison nhất quyết giữ lại Hội đồng Tu pháp và Đại hội hoãn lại việc xem xét quyền phủ quyết.[73]

Tư pháp

Ở Anh, các thẩm phán không cấu thành ngành riêng biệt, mà thay mặt vua và triều đình hành sử quyền xét xử. Madison xét mối ràng buộc giữa ngành hành chính và thẩm phán gây tham nhũng ở các bang, đề xướng tách tư pháp ra làm “ngành thứ ba” từ trước chưa hề có.

Ngày 4 tháng 6, các đại biểu đồng ý thiết lập ngành tư pháp quốc gia “bao gồm một toà cao nhất và một hay nhiều toà cấp dưới”, nhưng trái ý về cách chọn thẩm phán. Kế hoạch Virginia đề nghị quốc hội bổ nhiệm. James Wilson đề nghị trao quyền bổ nhiệm cho tổng thống để tăng cường chức vị.[74]

Ngày 13 tháng 6, Đại hội ra bản báo cáo mới về Kế hoạch Virginia, tóm tắt các quyết định trong hai tuần họp đầu tiên: sẽ thiết lập ngành tư pháp quốc gia, có một toà cao nhất; Quốc hội sẽ có quyền thành lập các toà cấp dưới; các thẩm phán do Thượng nghị viện bổ nhiệm, sẽ giữ chức vụ suốt đời nếu “cư xử chính đáng”.[75]

Những kế hoạch khác

Đại biểu của các bang nhỏ hoảng hốt: Đại hội dường như đang thiết lập một chính phủ toàn quốc cao nhất có thể phủ quyết luật của bang và lấy số dân làm nền móng chia nghị sĩ cả hai viện của Quốc hội.[76] William Paterson cùng những đại biểu khác của New Jersey, Connecticut, Maryland và New York vạch ra kế hoạch riêng, về cơ bản sửa lại Các điều khoản Hợp bang. Kế hoạch New Jersey giữ nguyên Quốc hội Hợp bang, nhưng trao cho thêm quyền đánh thuế và quản lí việc buôn bán. Quốc hội bầu ra một “ngành hành chính liên bang”, bao gồm các thành viên có chỉ một nhiệm kỳ và có thể bị Quốc hội cách chức theo yêu cầu của số đông thống đốc bang. Cũng dựng lên ngành tư pháp liên bang, các thẩm phán giữ chức suốt đời, do ngành hành chính bổ nhiệm. Các bang phải tuân theo pháp luật liên bang. Ngày 15 tháng 6, kế hoạch được đưa ra Đại hội.[77][78]

Ngày 18 tháng 6, Alexander Hamilton của New York trình bày kế hoạch riêng trái ngược với cả kế hoạch của Madison lẫn của Paterson. Hamilton chủ trương bắt chước chính phủ Anh. Quốc hội bao gồm hai viện, viện dưới do người dân bầu ra, có nhiệm kỳ ba năm, viện trên do các đại cử tri dân cử bầu ra, có nhiệm kỳ suốt đời. Đại cử tri cũng bầu ra thống đốc cầm đầu ngành hành chính, cũng giữ chức suốt đời. Thống đốc có quyền phủ quyết tuyệt đối các dự luật. Có ngành tư pháp quốc gia, các thẩm phán cũng giữ chức chung thân. Hamilton đề nghị thủ tiêu các bang hay ít nhất là cải tổ thành quận huyện có ít quyền. Một số nhà nghiên cứu ra giả thuyết Hamilton thực ra muốn Đại hội thông qua Kế hoạch Virginia, cho nên phải làm cho các đại biểu tin kế hoạch của Madison đúng với lẽ phải. Đại hội thậm chí không mang kế hoạch ra tranh luận, Hamilton thì bị cáo buộc nhiều năm rằng ông ủng hộ chế độ vua chúa, theo Anh.[79]

Ngày 19 tháng 6, Đại hội tổ chức biểu quyết về Kế hoạch New Jersey. Được Connecticut và các bang nô lệ ủng hộ, các bang đông dân đánh bại kế hoạch, bảy phiếu chống, ba phiếu thuận. Đoàn đại biểu của Maryland không đồng ý được, không bỏ phiếu.[80] Tuy nhiên, vấn đề đại diện vẫn chưa được giải quyết, các đại biểu còn tranh cãi cho đến tháng 7.